구글은 어떻게 여성을 차별하는가

💬 번역이 너어무 구려서 읽다가 턱턱 막혀서 힘들었다.

🔖 A. C. 포스켓은 분류를 시대의 산물이라고 주장했다. 니콜라스 허드슨 교수는 18세기 인종 분류의 기원에 대해 베네딕트 앤더슨의 말을 인용해 계몽주의 시대의 유럽인들은 '상상의 공동체'를 구상했다고 했다. (...) 이에 힘입어 발전한 분류 체계는 사회와 사람들을 이해하는 과학적 접근법의 하나가 됐다. 그 체계를 전파하는 이들은 권력을 거머쥐게 됐다. 과학적 분류법에 의거해 원주민을 '야만인', 유럽인을 '우월한 종족'으로 규정하는 관습, (...) 19세기까지 인종 분류의 진행 과정은 문화적 차이보다 생물학적 차이에 중점을 두었다. 재산 소유권과 시민권을 합법적으로 거부하기 위한 법제화도 진행됐다. 이러한 사회의 변화 속에서 역사가 배제된 채 왜곡된 개념화와 유형화는 아프리카인들에 대한 소외와 주변화 작업으로 이어졌다. 이 과정에서 알람표나 분류 시스템에서의 정보와 위계화를 통해 지식 구조의 특권화와 종속화가 이뤄졌다. 물론 도서관학이라는 분야도 늘 사람들이 형성한 조직에 매몰돼왔다. 타인을 희생한 대가로 다른 계층에 특권을 부여해 그들의 권력을 지속시킨 책임에서도 자유로울 수 없다.

(...)

위스콘신대학교 정보대학원 교수이자 대학원 부원장 호프 올슨은 분류의 사회 체계에서 중요한 이론을 주창했다. 올슨에 따르면, 이 분야의 교수들은 도서관, 박물관 또는 정보 전문가들의 권력이 막강하다는 사실을 교육받아야 한다. 시스템 설계를 할 권한을 가진 이들은 특정 정보를 다른 정보보다 중요한 것으로 구조화해 우선순위를 결정할 수 있다. 이러한 편향성의 예가 미국 도서관 정보 분류에서 가장 기본적이고 신뢰받는 기준인 LCSH로 사람들을 목록화하는 현상이다. 급진적 성향의 도서관 사서인 샌포드 버먼은 LCSH는 편향된 경향이 있고 이는 서양인의 관점이 투영됐기 때문이라고 주장한다.

(...)

올슨은 "분류법에서 드러나는 편견은 사회구조로서 분류되는 양상과 유사하다. 문화가 양산하는 편견은 분류법에 그대로 나타난다"고 했다. 편향성은 온라인에서 정보가 변동되는 양상에서도 나타난다. 어느 왕조의 역사가 문화가 다른 것으로 대체될 때 정복자들은 자신의 문화로 타인의 문화를 덮어 버린다. "분류 체계는 모든 요소 가운데 주류를 우선 반영한다. 사회의 가장 우세한 담론에 의해 분류의 틀이 마련된다. 그 결과 주류에서 벗어난 개념들의 소외 현상이 발생한다." 다른 말로 한 사회를 지배하는 주류 문화, 즉 백인, 이성애자, 기독교인, 중산층은 스스로의 특권 지위를 바탕으로 합법적 지식을 구성하는 구성원을 통제하려 할 것이다. 우리가 특권을 상속받을 때, 과거의 구조적 불평등에 바탕을 두고 있으며 그 불평등은 방대한 지식, 이미지, 음성 파일, 박물관, 도서관 등의 광대한 지식 체계를 기반으로 한다. 분류 시스템은 명확한 범위와 한계가 있는데 무엇이 포함되고 무엇이 배제되는지 일정한 기준이 있다.

🔖 미디어커뮤니케이션 학자인 알렉스 갤러웨이는 디지털 테크놀러지는 투명하고 친절한 출입문이어서 누구에게나 가고자 하는 길을 열어준다는 세간의 견해에 반대한다. 디지털 인터페이스는 담론을 형성하고, 역사적 사실을 재구성하고, 건전한 자본주의를 대변하는 물리적인 현실이다. 그러나 구글 같은 주요 미디어 플랫폼은 사용자의 미미한 정도의 개입마저 있는 그대로 반영하지 않는다.

검색은 단순히 페이지를 제시하는 데 그치지 않고 지식을 구조화한다. 상용 검색 엔진에서 검색된 결과는 구체적 물리적 현실을 형성해간다. 검색 엔진 회사는 전통적인 정보 과학 연구에서 벗어난 상업적 영리 추구 방식을 연구한다. 이를 통해 정치적, 사회적, 문화적 가치가 반영된 서열화된 정보를 검색 순위의 상위로 올린다.

새로운 디지털 테크놀로지는 기존의 미디어 담론을 그대로 반여하는데 웹 인터페이스, 즉 구글 검색창은 이전 미디어 형식이 변형되고 발전한 것이다. 물론 상용 검색 엔진 같은 디지털 테크놀로지는 미디어 자체를 흡수한다. 구글 검색은 단순히 대중에 무해한 서비스를 제공하는 포털이나 게이트웨이가 아니다. 사회적이고 역사적 장치로 이뤄진 생산과 조직의 모든 과정에 뿌리를 둔 상업 행위이자 창작이고 표현이다. 구글의 역사를 면밀히 조사한 존 바텔은 검색 행위를 회사들이 만들어낸 필요와 욕구의 산물이라고 주장한다.

링크에서 링크로, 클릭에서 클릭으로, 검색은 아마도 인류의 역사에서 가장 지속적이고 중요한 문화적 유산이 돼가고 있다. 검색은 취향의 데이터베이스다. 취향의 데이터베이스는 단순하지만 입력한 모든 검색어에 대한 결과이며, 모든 검색 결과 목록이며, 검색 결과로 가져온 모든 경로의 결과다. 이 정보는 웹 검색 이후의 삶을 실시간으로 보여 준다. 욕망의 거대한 클릭스트림, 데이터베이스, 필요, 욕구, 추론 가능한 취향, 소환장, 기록 파일, 온갖 목적을 위해 추적되고 착취된 것들.

🔖 캔디스는 백인이 주로 거주하는 미국의 한 유명한 대학가에서 흑인 전용 미용실을 운영하는 소규모 자영업자다. 그녀의 사례는 알고리즘의 억압이 얼마나 사소한 방식으로 우리에게 영향을 끼치는가를 보여준다.

(...)

"옐프는 알고리즘을 통제합니다. 그래서 사람들은 리뷰도 많이 남겨야 하죠. 모든 것은 당신이 리스트 표출 순서를 결정하는데 중요한 요소로 작용합니다. 어플리케이션에서 다른 연령대나 다른 문화를 가진 고객들은 자신의 의견을 마음껏 표명하고 있지 않느냐고 당신은 생각할 겁니다. 하지만 프로그램은 당신이 생각하는 것처럼 그렇게 작동하지 않아요.

인간의 존엄성을 대체할 수 있는 알고리즘은 존재하지 않습니다. 옐프는 자신의 알고리즘에 따라 가치를 설정하고 시스템을 만듭니다. 가장 큰 수혜자가 있다면 옐프 자신이겠죠. 이런 회사들이 나무의 과실을 모두 거둬간다면 그 피해는 소규모 자영업자들에게 돌아가겠죠. 거대 기업에 취업해 일할 수 없는 소시민들도 마찬가지일 거고요. 가장 중요한 건 그러한 회사로부터 벗어나는 일입니다. 그들은 자신들의 생각을 굽힐 의사가 없기 때문이죠. 늘 새 목표를 만들고 새 비전을 들고 다시 나타납니다. 이러한 관계는 진정한 의미에서 계약이라 할 수 없어요. 전 그들에게 주장이나 협상을 할 수 없습니다. 저울의 추는 기울어져 있고 전 협상할 입장이 못 됩니다."

(...)

어플리케이션의 인터페이스와 알고리즘을 살펴본 나 역시 캔디스와 똑같은 생각을 했다. 그들은 그녀의 의견은 물론 자신의 사업에 대한 정보 접근 권한을 통제하는 방식으로 운영하고 있었다. 캔디스가 알고리즘에 영향을 끼칠 수 있는 요소는 극히 적었다. 사업 특성상 반드시 필요한 인종과 성 정체성에 관한 정보를 노출하고자 했을 때, 회사는 받아들이지 않았다. 인간의 의사 결정 대신 인종적 색맹을 표방하는 알고리즘이 전면에 나설 때 초래되는 결과는 결코 가벼이 여길 만한 게 아니었다. 캔디스에게 알고리즘은 그녀와 그녀의 정체성을 거부하는 일이야말로 사회경제적 억압이다.